Stepwise Regression

定义 Definition

逐步回归：一种用于回归模型变量选择的方法，通过一系列“逐步”的操作（加入或移除自变量），依据统计准则（如 p 值、AIC、BIC、调整 \(R^2\) 等）来决定哪些变量保留在模型中。常见形式包括前向选择、后向剔除和双向逐步。该方法也常被批评可能带来过拟合、偏差估计与不稳定选择等问题。

发音 Pronunciation (IPA)

/ˈstɛpwaɪz rɪˈɡrɛʃən/

例句 Examples

We used stepwise regression to choose the most useful predictors.
我们用逐步回归来选择最有用的预测变量。

Although stepwise regression can produce a simple model, it may select different variables if the data change slightly.
尽管逐步回归能得到较简洁的模型，但数据稍有变化就可能选出不同的变量。

词源 Etymology

stepwise 由 step（“步”）+ -wise（“以……方式”）构成，表示“按步骤进行的”。regression 源自拉丁语 regressio（“回退、回归”），在统计学中指用自变量解释或预测因变量的建模方法；合在一起即“按步骤进行变量增删的回归建模”。

相关词 Related Words

• Regression
• Linear Regression
• Multiple Regression
• Model Selection
• Forward Selection
• Backward Elimination
• Overfitting
• AIC
• BIC
• Regularization
• Lasso
• Ridge Regression

文学与名著中的用例 Literary Works

• Applied Regression Analysis（Draper & Smith）——讨论回归建模与逐步选择等实践方法。
• Applied Linear Statistical Models（Kutner, Nachtsheim, Neter 等）——在多元线性回归背景下介绍逐步法与变量选择。
• Introduction to Linear Regression Analysis（Montgomery, Peck, Vining）——涵盖变量选择与逐步回归的常见用法与注意点。
• The Elements of Statistical Learning（Hastie, Tibshirani, Friedman）——在模型选择与预测方法的比较中提及逐步法及其局限。
• An Introduction to Statistical Learning（James, Witten, Hastie, Tibshirani）——在回归与模型选择章节中讨论逐步选择相关思想。